Chuyên mục "Hồi quy OLS"

Hiển thị các bài đăng có nhãn Hồi quy OLS. Hiển thị tất cả bài đăng

Các mô hình dữ liệu bảng tuyến tính cổ điển



Các mô hình tác động ngẫu nhiên (REM) hoặc mô hình tác động cố định (FEM) được gọi chung là mô hình dữ liệu bảng tuyến tính cổ điển, hoặc đôi khi còn gọi là mô hình dữ liệu bảng tuyến tính TĨNH. Các đặc tính “cổ điển” hoặc “tĩnh” của mô hình dữ liệu bảng trên sẽ lần lượt được hệ thống lại ở phần trình bày bên dưới.

Đầu tiên, chúng ta bắt đầu ôn lại các giả định của mô hình dữ liệu bảng tuyến tính cổ điển (classic linear panel model). Tiếp đến, từ giả định của mô hình chung chúng ta sẽ lần lượt đi vào từng mô hình cụ thể (Fixed effect, Random effect và Random coefficient) với các phương pháp ước lượng FE (classic FE, LSDV, FD), phương pháp RE và RC.
https://vietlod.com/mo-hinh-du-lieu-bang-tuyen-tinh-co-dien

Kiểm định tự tương quan và ràng buộc quá mức trong GMM



Kiểm định Sargan/Hansen được sử dụng để kiểm tra sự hợp lý của các biến đại diện sau ước lượng GMM. Ngoài ra, Arellano và Bond phát triển một kiểm định khác để phát hiện các độ trễ không phù hợp của các biện đại diện, gọi là sự tự tương quan trong thành phần sai số đo lường (idiosyncratic disturbance term), εit. Dĩ nhiên sai số chung, εit, của mô hình được giả định tự tương quan bởi vì nó bao gồm các ảnh hưởng cố định, và các ước lượng được xây dựng để loại bỏ các ảnh hưởng này. Nhưng nếu vit tự tương quan với chính nó ở độ trễ bằng 1, chẳng hạn, yi,t–2 thì các biến nội sinh sẽ có tương quan với νi,t–1 trong thành phần sai phân của sai số, Δεit=νit–νi,t–1.
https://vietlod.com/kiem-dinh-tu-tuong-quan-va-rang-buoc-qua-muc

Tổng hợp các kiểm định quan trọng trong dữ liệu bảng



Trong phân tích dữ liệu bảng, tính dừng của các biến chuỗi cần được xem xét kiểm định đầu tiên. Tiếp đến là kiểm tra các tác động riêng rẻ của mỗi đối tượng hoặc của điểm thời gian là cố định hoặc ngẫu nhiên, dồng thời cũng nên quan tâm đến tính ổn định của hệ số ước lượng theo các nhóm qua kiểm định Chow – Test. Tính nội sinh của biến cũng cần được xem xét khi chúng ta có lý do nghi ngờ tồn tại một/các biến có mối quan hệ chặt với một số biến trong mô hình. Sau khi hoàn tất các kiểm định trên thì mô hình mới được ước lượng. Kết quả ước lượng sau khi thỏa mãn các kiểm định về phương sai thay đổi, sự tự tương quan sẽ được sử dụng để phân tích, suy diễn thống kê. Bài viết này bao gồm 5 mục như sau:


  • Mục 1 sẽ trình bày về kiểm định nghiệm đơn vị;
  • Mục 2: kiểm tra tính ngẫu nhiên của các tác động riêng rẻ để lựa chọn FEM hay REM;
  • Mục 3 sẽ kiểm tra tính ổn định của các hệ số ước lượng qua Chow test;
  • Mục 4: kiểm tra biến nội sinh trong mô hình;
  • Mục 5 sẽ đề cập đến vấn đề phương sai thay đổi và tự tương quan của phần dư trong mô hình.


https://vietlod.com/tong-hop-cac-kiem-dinh-trong-du-lieu-bang

Hướng dẫn thục hiện phương pháp phân tách Stepwise trên SPSS



Phương pháp phân tách stepwise (Stepwise Discriminant Analysis) có ý nghĩa tương đồng với phân tích hồi quy đa biến stepwise ở chổ là cố gắng tìm ra một tập biến giải thích tốt nhất cho biến phụ thuộc. Trong phương pháp phân tách stepwise, biến độc lập có tương quan mạnh nhất với biến phụ thuộc sẽ được đưa vào mô hình trước và quá trình sẽ lặp lại đến khi không còn biến nào không còn biến nào có ý nghĩa thống kê ngoài mô hình. Chi tiết: https://vietlod.com/phuong-phap-phan-tach-stepwise-spss

Tiếp tục bài viết phân tích cluster thứ bậc qua phương pháp Ward, và phân tích cluster không thứ bậc theo phương pháp K-Means, bài viết này sẽ trình bày một phương pháp khác có tính ưu việt hơn so với 2 phương pháp trước, gọi là phương pháp phân tích cluster 2 bước. Chi tiết: https://vietlod.com/phan-tich-cluster-2-buoc-spss



Phân tích cluster 2 bước là một thủ tục để thăm dò phân loại các nhóm tự nhiên (cluster) tiềm ẩn trong một tập hợp dữ liệu. Thủ tục này sử dụng các thuật toán tối ưu và hiệu quả hơn so với cách phân tích cluster truyền thống, cụ thể như sau:

- Khả năng tạo ra các cluster dựa trên cả các biến phân loại và biến liên tục.
- Tự động lựa chọn số cluster.
- Khả năng phân tích các tập dữ liệu lớn một cách hiệu quả.

Ước lượng dữ liệu bảng trên EViews với câu lệnh LS



Cú pháp của lệnh hồi quy theo phương pháp bình phương bé nhất (tuyến tính lẫn phi tuyến) như sau:
ls(options) y x1 x2… hay tổng quát là ls(options) đặc_điểm_mô_hình
Cần lưu ý là EViews không tự động thêm hằng số vào phương trình hồi quy, do vậy, trong trường hợp mô hình tồn tại hằng số cắt thì chúng ta cần phải thêm “c” vào phương trình. Ngoài ra, chúng ta cũng có thể thêm dạng cấu trúc của sai số chẳng hạn như AR, MA, SAR, SMA vào phương trình để ước lượng.

Câu lệnh ls trên áp dụng được cho cả trường hợp dữ liệu không phải bảng (chéo, thời gian) và dữ liệu bảng. Các tùy chọn của ls trong 2 trường hợp, do vậy, cũng sẽ khác nhau.
https://vietlod.com/uoc-luong-du-lieu-bang-tren-eviews-lenh-ls

Xử lí vấn đề biến nội sinh bằng phương pháp GMM


Các phương pháp ước lượng dữ liệu bảng như Fixed effect (FE, FD, LSDV) hoặc Random effects được sử dụng chủ yếu để ước lượng các mô hình dữ liệu bảng tĩnh tuyến tính. Với mô hình này, sự tồn tại của các vấn đề như tự tương quan của các sai số, cũng như tính chất động của mô hình được thể hiện qua các biến trễ phụ thuộc (vấn đề biến nội sinh) sẽ làm thiên chệch kết quả ước lượng. Mô hình dữ liệu bảng tồn tại các vấn đề này được gọi là mô hình bảng động tuyến tính. Có 2 cách để giải quyết vấn đề nội sinh trong mô hình bảng động tuyến tính, chúng ta có thể sử dụng một trong hai phương pháp. Đó là sử dụng phương pháp D-GMM (phương pháp sai phân GMM – difference GMM), biến đổi dữ liệu để loại bỏ các tác động cố định này. Hoặc sử dụng phương pháp biến đại diện (instrument) cho yi,t–1 và tương tự cho các biến nội sinh với các biến mà chúng ta tin rằng không tương quan với các tác động cố định. Bài viết này tập trung trình bày vấn đề xử lý biến nội sinh của mô hình bảng động tuyến tính bằng biến đại diện.
https://vietlod.com/cac-phuong-phap-uoc-luong-du-lieu-bang-phan-2

Phân biệt phương pháp S-GMM và D-GMM


Các phương pháp ước lượng dữ liệu bảng như Fixed effect (FE, FD, LSDV) hoặc Random effects được sử dụng chủ yếu để ước lượng các mô hình dữ liệu bảng tĩnh tuyến tính. Với mô hình này, sự tồn tại của các vấn đề như tự tương quan của các sai số, cũng như tính chất động của mô hình được thể hiện qua các biến trễ phụ thuộc (vấn đề biến nội sinh) sẽ làm thiên chệch kết quả ước lượng. Mô hình dữ liệu bảng tồn tại các vấn đề này được gọi là mô hình bảng động tuyến tính. Mô hình bảng động tuyến tính có thể được ước lượng bằng phương pháp GMM. Phương pháp GMM có 2 dạng ước lượng thay thế lẫn nhau là ước lượng D-GMM và S-GMM. Bài viết này sẽ lần lượt giới thiệu về đặc điểm của 2 phương pháp cũng như trình bày cách phân biệt giữa ước lượng D-GMM và S-GMM.
https://vietlod.com/phuong-phap-gmm-d-gmm-va-s-gmm

Phương pháp D-GMM và S-GMM thường được sử dụng để ước lượng các dữ liệu bảng động (có biến trễ), các dữ liệu bảng có N lớn T nhỏ hoặc tồn tại các vấn đề liên quan đến biến nội sinh, phương sai thay đổi hoặc sự tự tương quan của phần dư trong mô hình. Tuy nhiên, đối với các mô hình dữ liệu bảng tĩnh tuyến tính thì cần thiết xem xét các phương pháp ước lượng dữ liệu bảng khác như Pooled OLS, Fixed Effect, Random effects… Loạt bài viết về ước lượng GMM sẽ trình bày cách ước lượng một mô hình dữ liệu bảng tổng quát thông qua các ước lượng đã học như OLS, 2SLS, FE, RE, GMM để tìm ra một ước lượng phù hợp. Nội dung này sẽ giới thiệu các phương pháp cơ bản: OLS, FE và RE.

https://vietlod.com/cac-phuong-phap-uoc-luong-du-lieu-bang-phan-1

Yếu tố không quan sát được, không thay đổi theo thời gian

Unobserved time-invariant hay Unobserved time-constant là một thuật ngữ thể hiện yếu tố không thay đổi theo thời gian không quan sát được. Trong dữ liệu bảng, unobserved unit-specific error, kí hiệu là μi là tiêu chí để lựa chọn FEM/REM. Mô hình có chứa các tham số unobserved time-invariant này được gọi là mô hình tác động cố định FEM. Vậy Unobserved time-invariant là gì? Unobserved time-invariant gây ra những vấn đề gì trong mô hình dữ liệu bảng và làm thế nào để khắc phục nó? Bài viết này sẽ mở rộng vấn đề về mô hình tác động cố định (FEM), đồng thời sẽ trả lời 3 câu hỏi trên thông qua một ví dụ về mô hình tiền lương lao động.
https://vietlod.com/unobserved-time-invariant-la-gi

Một cách nhìn khác về mô hình FE, RE



Dữ liệu đa bậc tổng hợp dữ liệu nhiều lớp, do vậy, chứa đựng rất nhiều thông tin. Tuy nhiên các mô hình ước lượng như OLS, OLS với robust hoặc cluster robust cũng như mô hình với biến giả đều chưa thể khai thác hiệu quả các thông tin của multilevel data. Các mô trên kể trên được liệt kê theo một trình tự đó là giải quyết vấn đề tồn tại của mỗi mô hình. Mô hình đứng sau kế thừa, đồng thời giải quyết vấn đề tồn tại của mô hình đứng trước. Như đã đề cập ở bài khắc phục Corrected error bằng OLS với biến dummy, mô hình với dữ liệu đa bậc – multilevel data với biến giả là một ví dụ đơn giản của mô hình tác động cố định FEM.

FEM còn được gọi là mô hình tác động cố định (Fixed Effects Model) là một trong các dạng phổ biến của mô hình dữ liệu bảng (Panel data model) bên cạnh mô hình tác động ngẫu nhiên REM (Random Effects Model). Bài viết này sẽ trình bày các thuật ngữ cơ bản và các ý tưởng cốt lõi của mô hình FEM và REM theo cách hiểu đơn giản, dễ hiểu nhất. Đồng thời, bài viết cũng sẽ phân biệt sự khác nhau giữa 2 mô hình FEM vs REM cũng như 2 khái niệm Within & Between trong dữ liệu bảng ở trang 4&5.
https://vietlod.com/mo-hinh-du-lieu-bang-fem-rem

Minh họa thực hiện hồi quy probit trên Stata



Hồi quy Probit, đôi khi còn được gọi là mô hình probit, được sử dụng để ước lượng mô hình có biến phụ thuộc dạng nhị phân. Trong hồi quy probit, nghịch đảo của hàm phân phối xác suất chuẩn chuẩn hóa là sự kết hợp tuyến tính của các biến giải thích.

Ví dụ: chúng ta muốn biết các biến như điểm bài thi cuối khóa (gre), học lực trung bình (gpa) và uy tín của trường THCS (rank) mà các học sinh theo học ảnh hưởng như thế nào đến kết quả xét tuyển (admit) ở bậc học PTTH. Biến kết quả ở đây là một biến nhị phân (được chấp nhận/không chấp nhận).
Tham khảo: https://vietlod.com/hoi-quy-probit-stata

Minh họa thực hiện hồi quy khoảng trên Stata



Hồi quy khoảng (Interval Regression) được sử dụng để ước lượng mô hình có các biến phụ thuộc bị kiểm duyệt. Dữ liệu bị kiểm duyệt trong hồi quy khoảng là các kiểm duyệt khoảng. Điều đó có nghĩa chúng ta biết các quan sát nằm trong khoảng giá trị nào nhưng không thể biết chính xác giá cụ thể của mỗi quan sát. Hồi quy khoảng là trường hợp tổng quát của hồi quy kiểm duyệt (censored regression).

Ví dụ: chẳng hạn chúng ta muốn biết thu nhập thực của người lao động (triệu/tháng) theo các mức học vấn, số năm kinh nghiệm cũng như loại hình kinh tế mà người lao động làm việc. Trong trường hợp này, chúng ta không thể biết được giá trị thu thập thực của từng người lao động, nhưng chúng ta có thể biết được giá trị thu nhập thực có thể rơi vào các khoảng như nhỏ hơn 5 triệu, từ 5 triệu đến 10 triệu, từ 10 triệu đến 20 triệu, từ 20 triệu đến 50 triệu và trên 50 triệu. Đối với dữ liệu thu thập này, thì rõ ràng dữ liệu vừa bị kiểm duyệt trái (nhỏ hơn 5 triệu), kiểm duyệt phải (lớn hơn 50 triệu), đồng thời trong mỗi khoảng giá trị của các quan sát bị kiểm duyệt trái và phải đồng thời. Trong trường hợp này, chúng ta không sử dụng mô hình hồi quy kiểm duyệt thông thường, mà phải sử dụng hồi quy kiểm duyệt tổng quát hay còn gọi là hồi quy khoảng.
Tham khảo: https://vietlod.com/hoi-quy-khoang-interval-regression-stata

Minh họa thực hiện hồi quy logit chính xác trên Stata



Hồi quy logit chính xác (Exact logistic regression) được sử dụng để ước lượng mô hình với biến phụ thuộc dạng nhị phân, trong đó, log của odds được giải thích bằng tổ hợp tuyến tính của các biến độc lập. Nó được sử dụng khi cở mẫu nhỏ không đủ để thực hiện hồi quy logit thông thường theo phương pháp ML hoặc trong trường hợp các ô trong bảng tần suất được tạo bởi biến phụ thuộc với biến kết quả trống hoặc rất ít quan sát. Sở dĩ gọi phương pháp hồi quy này là hồi quy chính xác bởi vì nó không phụ thuộc vào các kết quả tiệm cận.

Giả sử chúng ta quan tâm đến các yếu tố ảnh hưởng đến khả năng được xét tuyển của một học sinh PTTH vào các trường đại học. Biến phụ thuộc (admit) ở đây có 2 giá trị là được chọn hoặc không được chọn. Các biến giải thích cho khả năng xét tuyển này bao gồm giới tính (female), có tham gia chương trình tính toán nâng cao (apcalc) ở trường PTTH hay không. Bởi vì biến phụ thuộc là biến nhị phân, do vậy, chúng ta sử dụng mô hình nhị phân để giải quyết vấn đề này. Ngoài ra, bởi vì số lượng học sinh tham gia khảo sát ít, do vậy, chúng ta cần có một phương pháp để ước lượng tập dữ liệu nhỏ này.

Tham khảo: https://vietlod.com/hoi-quy-logit-chinh-xac-stata

Hướng dẫn thực hiện hồi quy logit thứ tự trên Stata



Hồi quy logit thứ tự (Ordered Logistic Regression) là dạng tổng quát của hồi quy logit thông thường. Nó được sử dụng khi biến phụ thuộc có thang đo thứ tự.

Để dễ hiểu hơn về hồi quy logit thứ tự, các bạn có thể tham khảo các ví dụ sau:

  1. Một công ty nghiên cứu thị trường muốn khảo sát các nhân tố ảnh hưởng đến sự lựa chọn cỡ ly soda (nhỏ, trung bình, lớn, hoặc rất lớn) của khác hàng trong chuỗi thức ăn nhanh. Những nhân tố này bao gồm loại thức ăn được chọn (hamburger hoặc gà), có chiên hay không, tuổi của người khách hàng. Trong trường hợp này, biến phụ thuộc là kích thước ly soda, có thang đo thứ tự, được thể hiện qua sự chênh lệch về giá của ứng với các cở ly. Chẳng hạn, sự chênh lệch giữa ly vừa và ly nhỏ là 10 nghìn, giữa vừa và lớn là 8 nghìn hoặc giữa lớn và rất lớn là 12 đồng.
  2. Một nhà nghiên cứu quan tâm đến các yếu tố ảnh hưởng đến đạt huy chương trong môn bơi lội Olympic. Các yếu tố liên quan gồm thời gian tập luyện, chế độ dinh dưỡng, tuổi của vận động viên và tính phổ biến của môn bơi lội ở nước nhà. Nhà nghiên cứu tin rằng, khoảng cách giữa huy chương vàng và bạc là lớn hơn khoảng cách giữa huy chương bạc và đồng.
  3. Một nghiên cứu xem xét các nhân tố ảnh hưởng đến quyết định học tiếp (cao học). Các sinh viên được hỏi về khả năng học tiếp của mình với 3 mức không có khả năng, có khả năng và rất có khả năng. Vì vậy, biến phụ thuộc ở đây có 3 mức. Các biến giải thích được sử dụng là học vấn của cha mẹ, loại trường (công/tư) và điểm trung bình (GPA). Các nhà nghiên cứu có lí do tin rằng khoảng cách giữa 3 mức phân loại trên là không bằng nhau. Chẳng hạn, khoảng cách giữa không có khả năng và có khả năng là nhỏ hơn so với khoảng cách giữa có khả năng và rất có khả năng.

Bài viết này trình bày về vấn đề hồi quy đối với biến phụ thuộc dạng thứ tự, còn gọi là hồi quy thứ tự. Các hướng dẫn thực hành sẽ được minh họa theo ví dụ 3 nêu trên.

Tham khảo: https://vietlod.com/hoi-quy-logit-thu-tu-stata

Minh họa thực hiền hồi quy nhị thức âm trên Stata

Hồi quy nhị thức âm (Negative Binomial Regression) được sử dụng để ước lượng các mô hình với dữ liệu của biến phụ thuộc có dạng đếm (counts) và phân tán rộng. Dữ liệu được xem là phân tán rộng khi biến có sai số chuẩn vượt quá giá trị trung bình của biến. Đây là dạng tổng quát của hồi quy Poisson.

Tham khảo: https://vietlod.com/hoi-quy-nhi-thuc-am-stata

Odds là gì? Odds có ý nghĩa gì? Cách diễn giải odds

Các dạng của hồi quy logit, probit đều cho kết quả các hệ số ước lượng là log của odds, logit hoặc tỉ lệ odds (OR). Việc giải thích các hệ số này đôi khi dễ nhầm lẫn. Bài viết sẽ hướng dẫn cách giải thích odds một ví dụ đơn giản có thể tính tay hoặc sử dụng hồi quy logit giản đơn.

Tham khảo: https://vietlod.com/giai-thich-odds-logit

Phân phối chuẩn của dữ liệu

Vì sự chuẩn hóa của dữ liệu (phân phối chuẩn) là một trong những giả định quan trọng cho đa số các kiểm định thống kê. Trong chương trình Kinh tế lượng, thống kê được giảng dạy tất cả các kiểm định hoặc phương pháp phân tích đều dựa trên giả định về tính phân phối chuẩn của dữ liệu. Do vậy, trong nghiên cứu của mình các bạn sinh viên sẽ thực hiện kiểm tra, làm sạch dữ liệu và loại bỏ ảnh hưởng của các điểm dị biệt để đưa dữ liệu về dạng chuẩn hóa. Bên dưới, chúng tôi sẽ trình bày quy trình 5 bước để xác định và xử lý vấn đề chuẩn hóa của dữ liệu.

Tuy nhiên, trong thực tế nghiên cứu các học giả sẽ ít kiểm tra tính chuẩn hóa này. Bởi thay vì họ giả định dữ liệu có phân phối chuẩn thì họ sẽ sử dụng những kiểm định dựa trên những giả định này để phân tích. Nội dung bên dưới sẽ lần lượt trình bày 4 vấn đề về tính chuẩn hóa của dữ liệu:

  1. Thứ nhất, phân phối chuẩn hóa là gì?
  2. Thứ hai, tại sao phân phối chuẩn lại quan trọng?
  3. Thứ ba, kiểm tra phân phối chuẩn như thế nào?
  4. Xử lý như thế nào nếu dữ liệu không có phân phối chuẩn?

Tham khảo: https://vietlod.com/phan-phoi-chuan-spss

Sự khác nhau giữa phân tích tương quan và hồi quy tuyến tính

Phân tích tương quan phân tích mối quan hệ giữa 2 biến. Giá trị của hệ số tương quan cho biết mức độ liên hệ mạnh giữa 2 biến. Yêu cầu của phương pháp là mẫu được chọn theo phương pháp chọn mẫu ngẫu nhiên. Trong nhiều trường hợp, phân tích tương quan có nhiều điểm tương đồng với hồi quy tuyến tính giản đơn. Chẳng hạn như cả hai đều cho thấy mối liên hệ giữa 2 biến. Hệ số ước lượng, cũng như hệ số tương quan giữa 2 biến càng lớn thì mức độ liên hệ giữa 2 biến càng chặt. Cả 2 đều cho giá trị p-value giống nhau trong các kiểm định giả thuyết.

Tuy nhiên, chúng ta không thể đồng nhất việc thực hiện phân tích tương quan và hồi quy tuyến tính giản đơn. Mỗi phương pháp đều có những đặc điểm riêng và phạm vi ứng dụng cụ thể. Bài viết sau sẽ phân biệt 2 phương pháp (tương quan và hồi quy tuyến tính giản đơn) này.

Tham khảo: https://vietlod.com/tuong-quan-va-hoi-quy-tuyen-tinh

Các loại khuyết tật của mô hình hồi quy tuyến tính

Để giải thích một mô hình hồi quy tuyến tính, dù là hồi quy tuyến tính giản đơn hay hồi quy tuyến tính đa biến thì đòi hỏi các giả định của mô hình phải thỏa mãn tính chất BLUE của ước lượng OLS. Mô hình có một hoặc một số các giả định bị vi phạm được gọi là mô hình tồn tại một số các khuyết tật. Tuy nhiên, mức độ ảnh hưởng của các khuyết tật này đến kết quả mô hình hồi quy là khác nhau. Có khuyết tật ảnh hưởng nghiêm trọng, thậm chí là rất nghiêm trọng đến kết quả, và cũng có loại khuyết tật ít nghiêm trọng đến kết quả hồi quy. Nguyên tắc đánh giá mức độ ảnh hưởng của các các khuyết tật liên quan đến mô hình hồi quy tuyến tính được thể hiện như sau:

  • Thứ nhất, kết quả hồi quy là sự thiên chệch trong giá trị thống kê F của mô hình. F thiên chệch sẽ làm mô hình không còn tin cậy.
  • Thứ hai, là sự thiên chệch trong hệ số ước lượng, khi đó các hệ số ước lượng không còn tin cậy. Do vậy, sự thiên chệch trong các sai số chuẩn và thống kê T không phải quá nghiêm trọng bởi những sự thiên chệch này chỉ tác động đến khoảng tin cậy của chúng ta mong muốn về sự thay đổi của một ước lượng, chứ không phải độ tin cậy về kết quả của chính ước lượng đó).


Tham khảo: https://vietlod.com/khuyet-tat-mo-hinh-hoi-quy

Author Name

Biểu mẫu liên hệ

Tên

Email *

Thông báo *

Được tạo bởi Blogger.